可控环境合成下的工具使用智能体扩展律
🧭 可控环境合成与工具使用 Agent 扩展律 ★ 深度解读
Apple
提出 SynthAPI 可控合成工具环境，发现工具与数据库多样性比任务数量更关键，并推导可预测扩展律
📌 工作参考价值（4 点）
- 构建电商/推荐 Agent 训练集时，优先扩展工具与数据库状态多样性，而非单纯堆任务数量：当数据预算大于约 4k 任务时，增加 app/工具数（A）、每个任务的初始数据库实例数（S）、以及干扰数据深度（D）比新增任务 prompt（T）更有效；在商品搜索、下单、售后等多步工具场景可直接复用此结论。
- 用可执行环境合成代替 LLM 模拟 API 响应：SynthAPI 生成 Python db schema + API + verifier + oracle solver，所有轨迹可执行、可验证，避免模拟复杂状态转换出错；适合电商/推荐中涉及库存、价格、用户画像等有状态变更的场景。
- 采用 meta-tools 按需加载工具接口：agent 通过 list_apps/list_tools/get_tool_documentation 动态发现工具，降低上下文开销并提升对新工具集的泛化；搜索推荐 Agent 可设计类似工具发现层，按需检索可用商品/内容 API。
- 用 scaling law 指导数据预算分配：拟合 P(A,T,S,D) 形式的性能预测模型，可在小规模 grid search 后外推到大算力预算，避免盲目生成数据；团队可在自有合成 pipeline 上复现此方法。
面向 AI Agent 的记忆中心持续学习
🧭 Agent 记忆与持续学习
提出以记忆是否改进未来行动为核心的三轴分类、双循环生命周期与评测协议
📌 工作参考价值（4 点）
- 将记忆系统从“能检索到什么”转向“是否改善下游动作”，在推荐/广告 Agent 中可定义以最终转化/点击增益为记忆更新信号，而非仅记录历史会话
- 采用双循环生命周期：内层快速更新交互记忆（如用户偏好、上下文），外层以任务反馈（如 session 成功率）调整记忆写入、淘汰、检索策略，可类比在线学习中的 meta-policy
- 借鉴三轴分类（substrate/ asset/ policy）对现有 RAG、向量库、参数微调等记忆方案做架构审计，明确不同记忆的存储位置、资产形态与管理策略，避免混用
- 资源分配框架可用于决定非参数记忆（向量库）与参数记忆（LoRA 模块）的容量与读取预算配比：当总预算增长时，按最优路径扩增容量与读取资源，而非盲目加大 retrieval top-k 或模型参数
多流注意力残差
🧭 高效 LLM 预训练 · 深度残差架构
School of AI, Shanghai Jiao Tong University · Shanghai Innovation Institute · Dots Studio, Xiaohongshu Inc. · School of CS, Peking University
将单流深度注意力残差扩展为多流深度注意力，通过多尺度因果卷积生成多样化上下文视图，在 MoE 大模型上取得 1.58 倍预训练加速
📌 工作参考价值（4 点）
- 若业务需要自研或微调大模型作为排序/召回/Agent 底座，可评估用 MSAR 替换标准残差连接：保持单流存储、按需扩展多流深度检索，iso-loss 预训练加速 1.58×，对 MoE 架构尤其明显。
- 多尺度因果卷积生成不同上下文视图的思路可迁移到用户行为序列建模：使用不同 kernel size 的因果卷积提取短期点击、中期会话、长期兴趣等多时间尺度表示，再通过自适应混合融合，增强序列建模能力。
- 轻量自适应混合多个检索流的机制，可作为推荐模型中多兴趣/多视图融合的替代方案：避免显式维护多流表示和通信开销，降低工程实现复杂度。
- 需注意该工作验证于 18B/28B 大规模 MoE 语言模型预训练，直接搬到电商推荐的小模型或非 Transformer 结构收益未知；引入多流机制可能增加调试复杂度，建议先在离线评测中验证深度特征稀释问题是否真实存在。
从谱到联合调度：LLM 预训练中的 3+3(+2) 缩放律机制
🧭 LLM 预训练缩放律与调度理论 ★ 深度解读
University of Wisconsin–Madison · Shanghai Jiao Tong University
用线性随机特征证明功率律由累积谱质量决定，并给出 LR/batch 联合调度下保持、改变或破坏损失缩放律的条件与可迁移代理模型
📌 工作参考价值（4 点）
- 训练大规模推荐/广告/搜索模型时，可把 schedule 坐标改成 intrinsic time T=∑η 与 ratio r=B/η，复用 7 参数 surrogate 预测不同 LR/batch schedule 组合的 loss；拟合一条 8-1-1 轨迹后，可 zero-refit 预测 WSD 等 held-out schedule，适合做训练预算分配与 early stopping。
- 若记忆核指数 qK≈1（论文在 OpenWebText/FineWeb/peS2o 上均拟合约 1，许多 LLM/大模型可能接近），存在 memory ceiling：后期继续降噪（如增大 batch 或降低 LR）无法改善最终损失衰减率，应把算力留给前期/中期信号学习，而不是末期降噪。
- 最优 batch size path 可近似为 r*(u)∝ sqrt((1+T-u)^{-qK}[F(u)+σ^2])，即噪声大且会存留到评估时刻的区间应分配更大 batch；这给出了 WSD / warmup-stable-decay 在数据或算力预算下的一种可操作调参依据。
- 若换用 Muon 等非 SGD optimizer，注意等价坐标可能变成 B/η^2 而非 B/η；在不同优化器之间迁移 schedule 时不能用同一套 intrinsic-time 不变性假设。
模型增长、递归与边界算子如何影响 scaling 指数
🧭 模型架构与训练效率 scaling 分析
New York University · Q Labs
发现架构干预可改变预训练 scaling 指数，循环深度带来计算效率随规模递增的指数级收益
📌 工作参考价值（4 点）
- 在算力受限的推荐/广告大模型训练中，可尝试循环深度（looped transformer）实现参数共享下的模型增长：训练时逐步增加循环次数，比单纯堆叠层更省显存，且计算效率随规模提升。
- 边界算子（boundary operator）对 vanilla transformer 即插即用，仅通过归一化并注入前一个 block 就能获得递增的计算效率增益，适合作为轻量级改进直接迁移到现有架构。
- 数据受限、多 epoch 场景下，循环深度有正则化效果，推荐在用户行为序列等重复训练数据上优先增加循环次数而非扩大模型宽度。
- 核心结论：架构干预可以改变 scaling 指数，意味着不再只依赖增大模型和数据，通过设计递归或注入结构可能获得指数级收益，值得在排序/召回大模型预训练中探索。
LazFormer：面向工业推荐的可迁移生成式预训练 Transformer 扩展
🧭 生成式预训练 + 排序 Transformer ★ 深度解读
Alibaba International Digital Commerce Group
用生成式预训练 + 残差适配器 + 非对称多 epoch 训练，实现工业推荐 Transformer 的参数与数据双扩展
📌 工作参考价值（4 点）
- 预训练与排序特征空间不一致时，用零初始化的残差适配器（类似 LoRA）注入排序特定特征，比直接拼接或额外投影更稳定，能避免稠密参数负迁移
- 长序列建模可保留最近 1k 细粒度 token + 更早历史按组求和池化；混合稀疏注意力中最近 128 个 token 设为全局 token，其余用滑动窗口，目标 item 只与历史交互且目标之间隔离，再逐层剪枝历史 token，可达到 92%+ 稀疏度和 5x 注意力加速，AUC 损失仅 0.1pt
- 多 epoch 训练时，每 epoch 把稀疏 embedding 重置回预训练状态、稠密参数持续累积，能避免稀疏过拟合，使数据规模扩展持续带来收益
- 同请求多个候选 item 共享一次用户历史序列编码，消除重复数据传输和编码开销，在线吞吐下降仅 12.1%，工程收益显著
当智能体减速：通过每 token Elo 分析理解 LLM 智能体的测试时策略
🧭 Agent 测试时计算缩放分析
UC Berkeley · University of Washington · Princeton University · Bespoke Labs
提出 Elo-per-token 分析量化 LLM Agent 测试时计算缩放，发现边际收益递减且拆分并行预算更优
📌 工作参考价值（4 点）
- 对搜索/推荐 Agent 的多步推理或工具调用，可以用 Elo-per-token 曲线监控 token 投入的边际收益，而不是只看最终指标；在边际收益低于独立采样参考线时及时停止或调整策略。
- 独立采样参考线是简单有效的 baseline：如果 Agent 的规划、反思、工具调用不能稳定跑赢重复采样，说明额外复杂度没有带来 token 效率，可考虑简化 Agent 流程或增加采样并行度。
- 利用 scaling inflection point 分配长任务预算：将总 token 预算拆成多个并行 sessions 可能比一个超长 session 获得更高 Elo，对线上高并发 Agent 服务的请求拆分和成本控制有直接指导意义。
- Bradley-Terry 聚合跨任务分数排序的方法可以迁移到电商多指标评估，处理不同 reward 尺度下的成对比较，适合离线评测 Agent 生成物品文案、搜索 query 等开放任务。
UniCon：面向CTR预测的统一上下文中心建模范式
🧭 统一上下文建模 · CTR预测 ★ 深度解读
Meituan
将历史曝光列表与当前候选集统一为上下文单元，通过分层注意力建模上下文内局部性与跨上下文动态
📌 工作参考价值（4 点）
- 上下文单元抽象：在电商搜索/推荐中，把每次展示列表（共现商品、位置、环境信号）组织成一个上下文单元，而不是把行为序列展平。这能显式建模同一曝光内商品的竞争/互补关系，以及跨曝光的状态演化，对货架、瀑布流等强上下文场景特别有用。
- 历史与目标结构对齐：训练时历史曝光带点击标签，目标候选集用可学习占位符对齐，再通过曝光和绝对位置预测辅助任务将目标单元引导到真实展示分布。这套做法可以迁移到重排或生成式推荐中，让候选集表示更贴近最终展示情境。
- 目标感知的上下文压缩：在长历史序列中，每层用target-context的query-key相似度选择保留top-k个最相关的历史上下文单元，大幅降低attention计算量而几乎不损失精度（压缩比0.5时计算减少75.4%，AUC仅降0.0001）。这对长序列用户建模很有借鉴价值。
- 工程化细节：padding-free变长注意力、segment offsets表示上下文边界、AOT编译和融合算子，以及候选分片策略（固定300个候选一个分片），这些是让高计算量上下文模型上线可行的关键。训练和推理使用一致的分片规则也很重要。
推导 OpenEuroLLM 模型的缩放定律：学习率、批量大小与损失
🧭 LLM 预训练超参缩放定律
ELLIS Institute Tübingen · Eindhoven University of Technology · Georgia Institute of Technology · University of Freiburg · Jülich Supercomputing Center (JSC)
系统研究 LLM 预训练中学习率与 batch size 的联合最优缩放及边际演化，并刻画损失对模型容量和数据规模的依赖
📌 工作参考价值（4 点）
- 在业务微调或预训练领域大模型时，先做小规模超参扫描，再用拟合的缩放关系外推到大模型：避免在全尺寸模型上重复扫描 learning rate 和 batch size，节省算力；尤其适合电商 search/推荐语料上训练 Query 生成、意图识别或商品描述生成模型。
- 采用 Warmup-Stable-Decay 三段式 schedule 时，关注 stable 与 decay 阶段最优超参是否可迁移：如果发现最优 lr/bs 不迁移，需要在 decay 阶段单独调参；这对追求最终 loss 最优的领域模型训练有直接指导意义。
- 用显式建模模型容量与数据规模交互的 scaling forms 判断欠训练/过训练：在有限数据预算（如电商垂直域语料）和模型规模约束下，预估增加数据或参数带来的 loss 收益，辅助资源分配决策。
- 开源全部预训练 runs 可直接复用为 baseline 或 warm start：若企业计划从零预训练多语言/英语为主的电商领域 LLM，可参考其 scaling 流程与超参选择，减少摸索成本。
一步一步扩展：大规模混合专家模型的计算高效超参数迁移
🧭 大规模MoE训练超参数迁移
Kakao Corp. · Upstage AI
提出计算高效的两步超参数迁移框架，通过宽度缩放迁移与token外推预测大规模MoE最优学习率
📌 工作参考价值（3 点）
- 在训练大规模 MoE 推荐/广告模型时，可采用 μP 参数化 + 宽度缩放代理模型快速确定学习率，避免对完整尺寸模型做昂贵的超参扫描。对于需要频繁调整专家数量或模型宽度的业务，μP 让最优 LR 在不同宽度间稳定迁移，显著降低调参成本。
- 利用小代理模型在有限 token 预算下的 LR 扫描结果，通过线性回归外推到生产模型的超长训练 horizon（如 10T tokens），R²=0.95 表明该迁移对 MoE 架构高度可靠。训练 infra 团队可据此搭建低成本 proxy 流程，预测大模型最优配置。
- 若业务落地 DeepSeek-V3 类 MoE 架构（含 Multi-head Latent Attention 和 Muon optimizer），需同步引入对应的 μP 适配，否则学习率等配置无法跨模型尺寸复用。工程上应把参数化与优化器选择固化进训练代码，保证迁移性。
LLM 预训练中领域数据重复的规模化规律
🧭 LLM 预训练数据重复策略
Tsinghua University · ByteDance Seed
固定 TPP 下最优领域重复次数随模型规模略增且与领域验证损失强负相关，可用小模型外推
📌 工作参考价值（4 点）
- 高质量领域数据有限时，不必盲目避免重复：对模型拟合好、验证损失低的领域，可以安全增加重复次数；可先在小模型上观察不同重复率对验证损失的影响，找到临界点。
- 在数据配比流程中，不要只依据唯一数据量判断领域重要性；用小代理模型（相同 TPP）快速扫描各领域最优重复次数，再将结果外推到大模型，可大幅降低大模型实验成本。
- 推荐/搜索场景中，若某些高价值目标域（如特定类目、核心 query 意图）数据稀缺，可借鉴该重复策略，但需持续监控验证损失，防止从“低损失高可重复”偏移为过拟合。
- 工程上可建立“数据重复率—验证损失”曲线作为数据配比决策的轻量工具，纳入预训练/持续预训练的数据准备 pipeline。
超网络向大语言模型注入知识的规模法则
🧭 超网络训练时知识注入 · 规模法则
Nace AI · Purdue University
发现超网络生成 LoRA 适配器进行知识注入的损失、准确率和 OOD 泛化遵循幂律缩放规律
📌 工作参考价值（4 点）
- 超网络生成个性化适配器：在推荐系统中，可为不同用户群或内容品类训练超网络，动态生成轻量 LoRA 适配器，实现高效、可扩展的定向知识更新，无需重新全量微调。
- 解耦设计便于工程拆分：将知识注入容量与主模型能力解耦，允许单独扩展超网络（深度/宽度）而不影响线上推理成本，适合频繁更新的电商知识库（如商品属性、活动规则）。
- 利用规模法则指导资源分配：论文给出的预测性规模曲线可作为经验指南，在算力有限时权衡超网络深度、宽度和目标模型大小，快速找到性价比最优的配置。
- OOD 泛化优势用于冷启动：超网络注入在 OOD 场景（未见实体/关系）的缩放指数更陡，可迁移到新品推荐或冷门 category 的知识覆盖，比直接 LoRA 微调更可靠。
TMallGS：面向生成式电商搜索的统一特征与序列建模扩展
🧭 搜索排序 · 计算密集型架构扩展 ★ 深度解读
Southeast University · Taobao & Tmall Group of Alibaba · Peking University
通过解耦语义交互与信号保留的Transformer架构，首次在搜索排序中实现Scaling Law并带来显著GMV提升
📌 工作参考价值（4 点）
- 分层tokenization平衡异构特征：利用Field-wise Saliency Reweighting（FSR）做全局裁剪，再用Distribution-Calibrated Projection（DCP）以校准Swish替代SwiGLU，在降低33% FLOPs的同时保持精度，适合电商搜索中大量稀疏ID与稠密统计特征的混合输入。
- 解耦晚期融合保留强匹配信号：将Q2I匹配分等显式交叉特征通过FiLM作为调制信号，而非直接输入注意力流，避免深层Transformer过度平滑，可直接迁移至需精准相关性匹配的排序场景（如广告、搜索重排）。
- Error-Aware Progressive Training：用浅层预测误差为深层样本动态加权，实现自适应课程学习，改善稀疏反馈下深层网络的梯度消失；可将该策略应用于任何深层排序模型的训练，提升收敛速度和排序指标。
- Context-Aware Bias Net正交化解耦偏差：用全局上下文锚点的深层编码学习位置/页面等偏差，与主语义logit加法融合，在pairwise loss中自动抵消，确保GAUC优化不被全局点击先验干扰，适用于所有需在请求内做相对排序的工业系统。
EdgeBench：真实世界智能体学习性能的对数S型缩放定律
🧭 智能体环境学习缩放定律
ByteDance
首次发现智能体在真实环境中的长时间学习遵循精确的对数S型缩放定律，R²达0.998
📌 工作参考价值（4 点）
- 长时间运行智能体的性能预测：在电商广告自动优化、推荐系统持续调参等场景下，可借鉴对数S型曲线（$S(t) = \frac{S_{max}}{1 + (t_{mid}/t)^\beta}$）刻画智能体从环境反馈中学习的规律，预估性能饱和点，避免无效等待。
- 任务设计与评估框架：EdgeBench 要求单任务至少 12 小时连续运行并提供多级丰富反馈，类似方式可用于构建电商场景的长期智能体评测集（如七天不间断选品与出价），量化模型在真实业务流中的持续学习能力。
- 学习速度的迭代改进：论文发现智能体学习速度约每三个月翻倍，这启发我们在推荐智能体迭代时，关注模型代际的策略学习效率提升，将“学习速度”作为选型指标。
- 反馈机制设计：任务提供多级环境反馈（即时奖励、子任务完成信号等）是性能规律显现的关键，推荐系统中的智能体也应引入多层次、非延迟的反馈信号，以支撑稳定学习。
扩展会改善基于LLM的社会模拟吗？
🧭 社会模拟扩展定律评估
Stanford University · Open Athena
发现LLM社会模拟在多数任务上随规模改善，但行为偏差校准等任务不随扩展改善
📌 工作参考价值（4 点）
- 1. 当用LLM模拟用户行为（如点击、购买）做离线评估时，扩大模型可提升主流用户群的模拟准确度，但小众群体或风险偏好等认知偏差校准不会随规模改善，需额外校准或引入心理学模型。
- 2. 纵向用户兴趣预测扩展缓慢，若用于推荐系统中的长期用户建模，应结合真实行为序列，不宜单纯依赖大模型模拟。
- 3. 可利用本文的分层评估思路：对多数群体用大模型模拟生成训练数据，对少数群体做针对性数据增强或微调。
- 4. 行为模拟中的认知偏差问题提示：大模型未必自然具备人类的非理性决策（如从相关任务学习奖励），在强化学习环境或Agent模拟中需显式设计偏差机制。
扩大Transformer推荐模型规模时流行度偏差的放大陷阱及其缓解
🧭 序列推荐 · 流行度偏差与谱正则化 ★ 深度解读
Zhejiang University · University of Science and Technology of China
揭示Transformer序列推荐深度缩放导致谱坍缩放大流行度偏差，提出层级谱正则化方法SPRINT实现准确性与公平的双赢。
📌 工作参考价值（4 点）
- 在电商/广告推荐中扩大Transformer深度时，需警惕流行度偏差同步放大，导致长尾物品曝光下降；SPRINT 的注意力和前馈正则化可直接嵌入现有架构，以极小计算成本（~3%训练时间）控制谱范数。
- 具体实现：对自注意力矩阵的列和施加logsumexp平滑上界，防止少数热门物品垄断注意力权重；对前馈权重用幂迭代估计谱范数并正则化，抑制深度网络中的低秩坍缩。
- 两个正则项联合可使模型在扩大规模时保持准确率和公平性的帕累托前沿，例如在SASRec++上NDCG@5提升15.7%，Fair-0.8提升7.12%，适合大规模排序系统。
- 方法对Transformer模块通用，已验证可迁移至生成式推荐（TIGER、LETTER），实现长尾曝光提升，为工业级模型扩展提供了偏差控制方案。
用户行为事件序列基础模型的扩展定律
🧭 生成式推荐 · 扩展定律与架构优化 ★ 深度解读
Unbox AI
行为基础模型的参数拆分、批大小、模型/数据分配和负采样均呈现可预测的扩展规律，最优嵌入器占比仅约2%且随计算预算向数据重倾斜。
📌 工作参考价值（4 点）
- 特征编码器（embedder）设计可极度轻量（总参数量的2%），因为嵌入器参数被复用次数远超上下文编码器，且流行项重复训练严重，大幅降低训练成本。
- 负采样数量应随计算预算增加而扩大，但在10^19 FLOPs后内存成为瓶颈，需引入候选轴检查点或分片，直接指导电商推荐系统在大规模训练时的资源规划。
- 模型/数据分配比低算力时极度数据重（D/N≈340），高算力时靠近Chinchilla法则（D/N≈36），所以在预算增长时逐步增大模型相对数据占比能最大化收益。
- 训练时使用的批内损失与部署时的全目录排名指标存在系统性偏差，临界批大小、最优负采样数等均依赖目标指标，必须先用部署指标校准扩展定律，否则最优配方可能错误转移。
Rec-Distill：面向工业推荐的大规模模型蒸馏框架
🧭 推荐系统 · 知识蒸馏 · 大规模模型压缩 ★ 深度解读
ByteDance AML · ByteDance
解耦式蒸馏框架将大模型（24B参数、20K序列）知识高效迁移至轻量线上模型，迁移率超60%并取得商业收益
📌 工作参考价值（4 点）
- 解耦式蒸馏推进大模型复用：教师与学生对训练完全解耦，教师持续流式更新并缓存logits，学生异步消费。可参考此“1-to-N”范式，一个大教师同时服务多个小模型（如召回、粗排、精排），显著降低训练成本，实现线上模型不限制实验规模。
- 黑盒蒸馏+loss缩放：使用教师输出logits的交叉熵损失，简单有效，且观察到蒸馏损失尺度比主任务损失小两个数量级时效果差，需通过调大系数α对齐量级。实际部署时可直接采用CE蒸馏，并手动调大α。
- 去偏机制解决样本分布不匹配：教师和学生训练数据采样策略不同导致logits偏差，通过将教师logits用学生侧去偏公式重校正（𝑇2′=𝑓𝑆(𝑇1)），再与学生去偏logits蒸馏，可提点0.1%。电商场景普遍存在采样偏差，该方法可复用。
- 混合批-流式管道保证实时性：批训练阶段用大量数据快速收敛，流式阶段从高速存储读取教师最新logits追加到学生流数据，实现分钟级延迟适应数据分布变化，避免线上掉点。适合实时推荐系统的高频更新需求。
统一神经缩放定律
🧭 神经网络多维度联合缩放行为建模
Mila · University of Montreal · Google DeepMind
提出统一函数形式UNSL，同时建模多维度（参数、数据、计算、推理步骤等）下的缩放行为，预测更准确
📌 工作参考价值（4 点）
- 在多变量（数据量、模型大小、训练步数等）同时调整时，可用UNSL拟合scaling law，比单维度拟合更准确，帮助在有限预算下选择最优配置。
- 在生成式推荐或LLM训练中，可基于小规模实验结果预测大模型性能，提前决定是否扩大规模，避免不必要投入。
- 函数形式纳入了推理步骤数，可用于分析推理成本与性能的权衡，指导Agent或查询推荐系统在延迟约束下的部署决策。
- 实际使用时需自行收集多维度实验数据拟合参数，并非预训练即用；主要贡献在于提供了一种更好的联合预测工具。
LLM 作为噪声信道：香农视角下的模型容量与缩放定律
🧭 LLM 训练缩放定律 · 香农信道理论
ByteDance Seed · University of Virginia · University of California, Berkeley
将 LLM 训练建模为噪声信道传输，提出香农缩放定律，解释非单调性能下降
📌 工作参考价值（4 点）
- 在推荐模型或生成式推荐训练中，当数据量增加但信息增益不高时，应监控性能非单调下降，可借鉴信噪比思考合理的数据配比与早停策略。
- 模型量化或压缩时，使用信噪比框架评估退化风险，避免 U 型性能崩塌，尤其适用于电商知识图谱 embedding 等场景。
- 多任务训练中，不同任务的噪声可能相互干扰，可依据信噪比动态调整任务权重，类似于信号功率的分配。
- 主要是理论贡献，可直接复用的工程 trick 较少，但为理解缩放瓶颈提供了新视角，有助于在模型升级决策时避免盲目扩展参数或数据。
量化超参数迁移与嵌入层学习率的重要性
🧭 训练超参数迁移与μP
揭示μP优于标准参数化的关键在于嵌入层学习率，提出三指标量化超参数迁移质量
📌 工作参考价值（4 点）
- 在 AdamW 训练中，若不想完整迁移到 μP，可直接将嵌入层学习率相对于隐藏层放大（例如按宽度比例），即可获得类似 μP 的训练稳定性和超参数迁移效果，对推荐模型中的大嵌入表尤其适用。
- 评估超参数迁移时，可使用文中提出的三个指标：缩放律拟合优度、外推误差鲁棒性、参数化带来的渐近损失惩罚，为自己的 scaling 策略建立量化基准。
- 固定 tokens/参数比时，慎用权重衰减：虽能改善缩放律拟合，但会降低外推鲁棒性，可能需在 loss landscape 平滑性与迁移可靠性间权衡。
- 发现嵌入层学习率瓶颈后，可针对性地在混合精度训练或分层学习率设置中，为嵌入参数分配更高学习率，避免训练初期的不稳定。
混合专家模型缩放：从μP到最大尺度稳定性参数化
🧭 Training ★ 深度解读
University College London · Amazon · University of Tübingen
提出最大化尺度稳定性参数化 (MSSP) 解决 MoE 联合缩放时的动态退化问题，恢复学习率迁移和单调性能增益
具有可预测缩放定律及推理可证明益处的层级语言模型
🧭 LLM ★ 深度解读
Duke University · University of Chicago · MIT · Princeton University
用树广播过程定义合成语言，精确分析上下文长度与推理的作用，证明有限上下文导致统计不一致且 O(log n) 记忆的推理即可精确采样